【セッションレポート】イノベーションを実現する AWS の生成 AI サービス（AA-01） #AWSSummit

AWS Summit Japan 2024

#AWS

#セッションレポート

#生成AI

平井裕二

2024.06.20

はじめに

AWS Summit Japan 2024 に参加しました。

「イノベーションを実現する AWS の生成 AI サービス」のセッションレポートです。

セッション概要

スタートアップから大企業まで、あらゆる規模の組織が生成 AI を導入し始めています。この新しいテクノロジーを活用し、プロトタイプ、デモからスタートし、イノベーションを加速して実際の生産性向上につなげたいと考えています。エンタープライズグレードのセキュリティとプライバシー、大手 AI 企業が提供する高性能な基盤モデルの選択肢、データ主導のアプローチ、最も高性能で低コストのインフラストラクチャを備えた AWS は、生成 AI によるイノベーションを実現しています。このセッションでは、Amazon Bedrock や Amazon Q などの新しい生成 AI サービスが、従業員の生産性向上、顧客エンゲージメントの改善、新しい差別化された体験の構築など、主要なユースケースにおいてどのように実際のビジネス価値を提供できるかを学ぶ事ができます。

セッションスピーカー：宇都宮聖⼦氏

所属：アマゾンウェブサービスジャパン合同会社パブリックセクター技術統括本部

セッションレポート

2023年生成AIの実証調査の年（PoC）。前例のないスピード感で浸透していった
2024年では実用化に向けた年。PoCから本番フェーズ
生成AIがもたらすビジネス価値
- 新しい体験
  - 人とより自然で柔軟なコミュニケーション。
    - 例：チャットボット、コンタクトセンター
- 生産性
  - 文章やコード、画像の生成支援など全ての事業部門で生産性を大幅に向上
- 洞察
  - 洞察を得て素早い情報共有により、組織のより良い意思決定に利用
    - 例：不正検知、BIツールへの組み込み
- 創造性
  - 会話や動画など新しいコンテンツを創造

Amazon における生成AIの導入事例

顧客レビュー
- Amazon.comにおける評価
Rufus
- 買い物アシスタントのエキスパート
  - 文章でほしい商品を記載すると、レコメンドしてくれる
Amazon 薬局
- 迅速な処方とサポート
  - ヒューマンエラーを防ぐことができる

生成AIアプリケーション
- 氷山の一角
  - データ基盤
    - ストレージ
    - データベース分析とデータレイク
    - データ統合
    - ガバナンスとコンプライアンス
生成AIは誰でも利用できる。自社のデータが差別化の鍵になる。
生成AIの活用
- RAG(検索拡張生成)
  - 迅速案増強による専門知識。基盤モデルに変更する必要はない
- ファインチューニング
  - 特定のタスクに関する専門知識
  - ラベル月の例が少ない
  - 基盤モデルのコピーを変更する
- 継続事前学習
  - お客様のドメインに関する一般的な専門知識
  - 基盤モデルのコピーを変更する

例：よりパーソナルなバーチャルエージェント

目的：オンライン旅行代理店がパーソナライズされた旅行日程を作成したい
データ
- 顧客のプロフィール
  - 過去の旅行
- 企業データ
  - フライト情報など

生成AIアプリのデータ基盤に求められること
- 包括的
  - 構造化データや非構造化データなどを保存し照会する包括的なデータ機能
- 統合
  - 全てのデータに簡単に接続
- ガバナンス
  - エンドツーエンドのデータガバナンス機能、アクセス管理
AWSはデータとAIの導入をエンドツーエンドで実現できる
- 迅速に統合できるようにゼロETLに投資している
迅速な変化を実現するポイント
- あなたのデータが差別化の鍵
- 効果的なユースケースを見つける
- 専門知識に関わらず、全従業員に利用してもらう
生成AIをユースケースに合わせてカスタマイズするには
- モデルからツールまで、多様な選択肢が柔軟性をもたらす
- セキュリティとプライバシーはスタート時点から必要
- データへ容易にアクセスできることが重要
実験からスケールアップを実現するには
- ビジネス価値とROIを測定・追跡
- コスト、レイテンシー、精度の要求に合わせてソリューションを最適化
- スケールに耐えうるインフラの準備
- リスク管理
セキュリティは生成AIにおいても最優先次項
- コンプライアンスとガバナンス
- 法的とプライバシー
- アクセス管理
- リスク管理
- レジリエンス
生成AIにおける責任あるAIの重要性
- 公平性
  - バイアスや異なる利害関係者への影響がないか
- 説明可能性
  - 出力は完全にコントロールできないが、評価する必要がある
- 制御可能性
- 安全性
- プライバシーとセキュリティ
- ガバナンス
- 透明性
- 正確性と堅牢性
責任あるAIベストプラクティス
- 生成AIを適切に使える人材
- ユースケースごとにリスクを評価
- 繰り返し改善
- テスト

プロダクト

3つカテゴリ
- LLMや他の基盤モデルを活用するアプリケーション
- LLMや他の基盤モデルを活用するためのツール
- 基盤モデルの学習と推論のためのインフラストラクチャ

基盤モデルの学習と推論のためのインフラストラクチャ

Amazon SageMaker
- 基盤モデルにアクセス
- 基盤モデルを構築
- 基盤モデルをカスタマイズ
シリコンレベルでのイノベーションを行っている
- AWS Trainium
- AWS Inferentia

LLMや他の基盤モデルを活用するためのツール

Amazon Bedrock
- 主要な基盤モデルをサーバレスで利用できる
- RAGでも利用できる
- 幅広い選択肢が容易されている
- AWSが開発している基盤モデルも用意
- 日本語にも対応している基盤モデルもある
- 即利用できる
モデルのカスタム
- お客さんのデータを用いてカスタマイズできる
  - RAG(検索拡張生成)
  - ファインチューニング
  - 継続事前学習
Agents for Amazon Bedrock
- 企業のシステムやデータソース間でタスクを実行する
- 数クリックで即座に動く生成AIアプリケーションを実現できる
- 企業データに安全にアクセスしデータを自動的に変換し、正確かつ適切な応答を作成する
- マルチステップのタスクを分析する
セキュリティとプライバシー保護
- 学習されない
- VPC経由でデータを転送
Guardrails for Amazon Bedrock
- アプリケーション用件と責任あるAIポリシーに合わせた保護対策を実装
- 有害なコンテンツのフィルタリングを設定
- 個人情報をマスキングも可能

LLMや他の基盤モデルを活用するアプリケーション

Amazon Q
- 複数の機能がある
Amazon Q Business
- マネージドにRAGが構築可能
Amazon Q in QuickSight
- 生成AIで分析やサマリーレポート作成が可能
Amazon Q Developer
- コードでの利用
Amazon Q in Connect や Amazon Q in Supply Chainなどもある
セキュアでプライベートな設計
- 特定のユーザーのみアクセス権限を持たすことができる
- モデル改善のためにユーザーのコンテンツは利用しない

生成AIの将来
- エージェント
  - お客さまや従業員で活用可能。社内システムに導入し、生産性向上につながる
- マルチモーダル
  - 画像や文章、動画なども受け付けられる
- マルチモデル
  - 複数のモデルを組み合わせる
- 規制
  - 責任のあるAI。様々な規制に速やかに対応する体制も整える事が必要
生成AIでスタートしよう
- 適切なユースケースを選択する
  - 十分なデータがあるか？実現性が高いものから試していくとよい
- カスタマイズされたトレーニング
  - トレーニングプラン
  - AWS Skill Builderは、100以上のコンテンツがある
  - 認定資格
- 生成を戦略的に活用
  - ビジネスニーズにあったAWSパートナーを見つける
    - AWS Marketplace
    - 数百のユースケース
    - 生成AI コンピテンシーパートナー
生成AIを戦略的に活用し続けるために
- 広い視野をもつ
- 柔軟性が鍵
- 万能な解決策はない
- ユーザーの声を実現する